Das EU-Parlament hat seine Position zum KI-Omnibus gefunden. Nachdem die beiden verantwortlichen Ausschüsse – für Justiz und Binnenmarkt – dem Positionsentwurf bereits am 18. März zustimmten, hat das gesamte Parlament die Entscheidung heute mit 569 Stimmen dafür, 45 dagegen und 23 Enthaltungen bestätigt. Damit konnte bereits heute der Trilog mit dem EU-Rat starten, um den finalen Kompromiss zu finden. Geplant ist, das Gesetz bis zum Sommer zu verabschieden.
Diese Änderungen sind zu erwarten
In manchen Punkten ist das Parlament mit der Kommission einverstanden, in vielen anderen nicht und will zum ursprünglichen Text der KI-Verordnung zurückgehen. Andere Dinge, wie das Verbot von sexualisierten Deepfakes, sind neu.
Das Parlament bestätigt etwa den Kommissionsvorschlag, die Anforderungen für Hochrisiko-Systeme zu verzögern: Anstatt ab dem 2. August 2026, sollen sie erst am 2. Dezember 2027 wirksam werden. Allerdings will das Parlament dafür feste Fristen. Die Kommission hatte die Fristen in ihrem Vorschlag flexibel gehalten und an die Fertigstellung der noch ausstehenden Standards geknüpft, die bei der Umsetzung der Anforderungen helfen sollen.
In der Praxis bedeutet das, dass über ein weiteres Jahr lang kein Schutz vor Hochrisiko-Systemen besteht. Das betrifft den KI-Einsatz in den Bereichen Biometrie, Bildung, Arbeit, Strafverfolgung und Grenzüberwachung.
Die Abgeordneten haben auch grünes Licht für die zusätzlichen Befugnisse für das KI-Amt („AI Office“) gegeben, das in der EU-Kommission angesiedelt ist. Dieses soll die Aufsicht über Allzweck-KI-Modelle (GPAI) übernehmen.
Gegen den Kommissionsvorschlag
Zurück zur ursprünglichen KI-Verordnung will das Parlament unter anderem bei der Registrierungspflicht (Artikel 6). Die Kommission wollte erlauben, dass Anbieter selbst einschätzen, ob ihr System risikoreich ist oder nicht. Das Parlament will hingegen, dass Hochrisiko-Systeme in einer Datenbank registriert werden müssen, unabhängig davon wie sie sich selbst einschätzen.
Alles netzpolitisch Relevante
Drei Mal pro Woche als Newsletter in deiner Inbox.
Der Rat sieht ebenfalls vor, zu der ursprünglichen Pflicht zurückzukehren. Die Mitgliedstaaten haben sich schon am 13. März auf ihre Position geeinigt. Verbraucherschützer, etwa die europäische Organisation BEUC, begrüßen diesen Schritt.
Das Parlament bestätigt auch: Wer KI mit sensiblen Daten trainieren will, etwa zu Religion oder sexueller Orientierung, um so Verzerrungen zu verhindern, soll das tun dürfen. Das hatte die Kommission in ihrem Vorschlag eingebracht. Allerdings will das Parlament Schutzmaßnahmen einführen, damit dies nur geschieht, wenn es „unbedingt erforderlich“ sei. Hier gibt es erneut eine Übereinstimmung mit der Ratsposition.
Der Dachverband von Organisationen für digitale Rechte EDRi ist trotzdem nicht überzeugt. Er merkt an, dass die Datenschutzgrundverordnung bereits die Verarbeitung sensibler personenbezogener Daten erlaube, wenn bestimmte Voraussetzungen erfüllt seien und eine klare Rechtsgrundlage vorliege. Eine neue Regelung würde das Missbrauchspotenzial solcher sensiblen Daten erhöhen und könnte dazu führen, dass betroffene Personen der Nutzung ihrer Daten zum KI-Training nicht widersprechen könnten.
Die sozialdemokratische EU-Abgeordnete Birgit Sippel erklärt, die Änderung stehe im Widerspruch zur DSGVO und warnt: „Wir dürfen keine implizite Bevorzugung datenintensiver Ansätze schaffen, indem wir den Einsatz sensibler Daten zur Voraussetzung für faire KI erklären.“
Ausnahmen für Medizintechnik und Spielzeug
Neu eingebracht haben die Abgeordneten und Mitgliedstaaten ein Verbot von KI-Systemen, die sexualisierte Deepfakes erstellen, wenn dafür das Einverständnis der betroffenen Person fehlt. Das Verbot soll allerdings nicht für KI-Systeme gelten, die mithilfe von „wirksamen Sicherheitsmaßnahmen“ verhindern, dass Nutzer solche Bilder erstellen.
Besonders kontrovers ist ein Punkt, für den sich Abgeordnete der EVP, Renew und EKR eingesetzt haben und der in der finalen Position zu finden ist: Bestimmte Sektoren sollen quasi von der KI-Verordnung ausgenommen werden, darunter Medizintechnik, Funkgeräte, Spielzeug und Maschinen. Die Abgeordneten argumentieren, dass diese Produkte schon unter eigene Sicherheitsvorschriften fallen würden und die Hersteller ansonsten einem doppelten Aufwand ausgesetzt seien. Auch der Verband DigitalEurope lobbyiert aktuell noch stark gemeinsam mit anderen Organisationen für diese Änderung.
Kritiker sind hingegen der Ansicht, dass die bestehenden Regulierungen nicht alle Ansprüche der KI-Verordnung abdecken würden. KI-spezifische Risiken würden nicht adressiert, merkt BEUC an. Die Grünen-Abgeordnete Kim van Sparrentak hat die Parlamentsposition für ihre Fraktion verhandelt. Sie sei „sehr besorgt“ über die Ausnahme von Medizinprodukten, Spielzeug, Smartwatches und Smartglasses von der KI-Verordnung, und führt diese auf einen Vorschlag der deutschen Christdemokraten zurück.
Wir sind communityfinanziert
Unterstütze auch Du unsere Arbeit mit einer Spende.
Die Politikerin kritisiert, dass die Änderung nicht zu einer Vereinfachung führen, sondern die Einhaltung von KI-Regeln komplizierter machen würde, da es statt einem Standard so mehrere unterschiedliche gebe. Das bemängelt auch Birgit Sippel (S&D): „Diese Änderung führt zu mehr Komplexität, Rechtsunsicherheit und uneinheitlichen Vorschriften. Zudem bieten die neuen Vorgaben weniger Sicherheit für Verbraucher:innen.“
Der TÜV-Verband warnte schon vor zwei Wochen zusammen mit neun weiteren Unterzeichnern eines offenen Briefes vor einer Fragmentierung und mehr Bürokratie durch diese Änderung.
Wie geht es weiter?
Gleich im Anschluss an die Abstimmung fand das erste Trilogtreffen statt. In den nächsten Wochen werden Rat und Parlament in zahlreichen technischen Meetings über den Inhalt des Gesetzes verhandeln. In einem Monat, am 28. April, sollen sie sich auf den finalen Kompromiss einigen. Der Rat wird dabei von der zypriotischen Ratspräsidentschaft vertreten, das Parlament von den beiden Berichterstatter:innen Arba Kokalari (EVP) und Michael McNamara (Renew).
In der vergangenen Woche trafen sich die Staats- und Regierungschefs in Brüssel und hielten ihre Ergebnisse in den sogenannten „Schlussfolgerungen“ fest. Bundeskanzler Friedrich Merz (CDU) drängte darauf, die Formulierung „ehrgeiziger“ KI-Omnibus einzubringen – mit Erfolg. Ob das tatsächlich einen Einfluss auf die Verhandlungen im Trilog haben wird, ist unklar.
Sicher ist dagegen, dass die Bundesregierung die KI-Verordnung weiter verändern will. „Sie muss schlanker werden“, sagte Merz in einer Pressekonferenz nach dem Gipfel. Er habe die Kommission gebeten, die KI-Verordnung „noch einmal ganz umfassend zu überprüfen“. Das erklärte Ziel: „Wir wollen in Europa die gleichen Chancen haben, um mit Künstlicher Intelligenz voranzukommen wie in den USA oder China.“
Die EU-Kommission hat noch nicht mitgeteilt, ob die KI-Verordnung tatsächlich ein weiteres Mal für Veränderungen geöffnet werden soll. Das könnte im Rahmen des „Digital Fitness Checks“ passieren, mit welchem das digitale Regelwerk in den kommenden Jahren bewertet werden soll.
„Viele Seiten freuen sich über ein neues Verbot von Systemen, die sexualisierte Deepfakes erstellen.“
Wer sich über sowas freut wird enttäuscht werden, denn ein System lässt sich nicht verbieten.
Das schreit alles nach Messerverbot usw. Haben sich solche Menschen auch gefreut als der Hackerparagraph geschaffen wurde? JEDES System kann sexualisierte Deepfakes erstellen. Ausnahmslos jedes. Wisst ihr wer es nicht kann? Geschlossene Systeme am besten in der Cloud.
Traurig, traurig wie technische Kompetenz immer weiter flöten geht.
Es geht dabei nicht um Lösungen.
Es geht um Diskurshoheit und Distinktion bei den einen, und um Marktschranken und Positionsverteidigung bei den anderen. Und dann natürlich noch die Gelegenheit zur Etablierung von Kontrolle für die Dritten.
Es kann nur das auf was es trainiert wurde und genau das ist eben der Knackpunkt. Die Widersprüchlichkeit ist ja nicht so übersehen, wenn Sicherheitsbehörden aber ihre KI Modelle ungefragt mit öffentlichen Bildern aus allen verfügbaren Quellen trainieren dürfen. Klingt irgendwie seltsam die Staatliche Spionage zu legalisieren und jenen der per Zufall eine Brust ablichtet mit einen Strafverfahren zu belasten. Man muss sich nur mal damit befassen was der umfangreiche Wald von Kameras „zufällig“ dokumentiert.
Verbot und Strafe gelten doch nur für den Bürger.
Die Wirtschaft darf nicht am Geldverdienen gehindert werden.
Militär und Geheimdienste sind ohnehin ausgenommen und werden das Internet mit ihren Deepfakes überfluten. Was ein State-Actor mit entsprechenden Ressourcen zu Stande bringt, zeigt das neue ‚Propaganda‘ Video des iranischen ‚Regimes‘. Sogar Aaron Schwarz hat darin ein Debüt. Aus technischer Sicht sehr sehenswert.
„etwa zu Religion oder sexueller Orientierung, um so Verzerrungen zu verhindern“
Oh je, die klügsten Köpfe der Welt können da keine verbindliche Aussage treffen. Und die Politik meint, eine KI wäre dazu in der Lage? Sorry, da habt ihr weder in Religion, noch in Philosophie oder einfach nur in Mathematik oder gar Informatik aufgepasst.
Eigentlich stand hier was vom alten Kant, ein wenig zu KI, Demokratie, Persönlichkeitsrechten und etwas mehr. Aber fragt besser einmal eine KI danach. Je nach Fragestellung werdet ihr genau eure Antwort finden, die euch zufrieden stellt, wie auch immer ihr drauf seit und was immer ihr meint. Kommt aber ein wenig auf den Prompt, den Bias an und natürlich halten wir uns an alle Gesetze! „Aber nicht diskriminierend“ wird automatisch an deinen Prompt angehängt. Denn diese Welt ist rosarot und die Menschen sind ja so dumm und glauben alles.
Soviel zur Verhinderung von Verzerrungen bei KI. Möchtest du die Blaue oder die Rote (Pille)? Heute im Sonderangebot. Katzenvideos gibt es umsonst, bei Zustimmung zu den „Datenschmutzbestimmungen“ und ein wenig von deiner Seele.
Versprich mir nur, das Kreuz an der richtigen Stelle ohne „Verzerrung“ durch dumme Alternativen oder miese Kommunisten zu machen und ich verspreche dir Alles. Rot? Grün? Schwarz? Gelb ist leider aus.
Nochmals der Gedanke eine KI nur so gut ist wie ihre Daten mit dem Sie trainiert wurde. Wenn man Pornografie produzieren kann wurde sie auch damit trainiert. Ohne Training wüsste diese nicht wie so was ausschaut und jetzt kommen wir zu eigentlichen Sache. Die meiste Pornografie ist aus der Sicht von Männern produziert worden und wenn eine KI so etwas erzeugt baut diese auch herabwürdige Ansichten und Vorstellungen von Männern mit ein. Die vom BKA genutzten Tools wurden alle mit bekannten Strafbaren Material trainiert, die Opfer wurden auch nicht gefragt. Das ist eben die Doppelmoral der Politik, um Verhaltensscanner etc. zu trainieren darf sich der Bürger ungefragt zur schau stellen.
„Wenn man Pornografie produzieren kann wurde sie auch damit trainiert.“
Eine automatisch auswertbare Definition von „Pornographie“ ist erstaunlich schwierig, es laeuft idR auf „ich kann es nicht definieren, aber ich erkenne es, wenn ich es sehe hinaus“. Mit all den individuellen und kulturellen Eigenheiten, also idR Willkuer. Ein Standardtrick zur Umgehung der Sperren sind uebrigens kulturhistorische Referenzen.
„Die meiste Pornografie ist aus der Sicht von Männern produziert worden […]“
Es gibt eine ganze Branche „female friendly“ Porno jeder Coleur.
„[…] und wenn eine KI so etwas erzeugt baut diese auch herabwürdige Ansichten und Vorstellungen von Männern mit ein.“
Die baut auch die herabwuerdigenden Ansichten und Vorstellungen von Frauen ein, und dann sind da natuerlich fiktionale Darstellungen jeglicher Coleur fuer jegliche Zielgruppe, sie kennen Rule 34?. Gibt auch diverse explizit frauendominierte Varianten. Interessanterweise duerft gerade Porno in seinem kulturell globalen Variantenreichtum in Summe erstaunlich nicht-diskriminierend sein.